Задава ли се краят на човека заради ИИ? На кои професии ще вземе хляба, ще промени ли из основи обществото ни? Ще ни унищожи ли, или ще ни дари с безсмъртие? Или просто сме свидетели на огромен маркетингов трик? Обобщавам някои от най-важните мнения по темата на безспорни авторитети от света на технологиите и не само.

Ето какво имат да кажат Илон Мъск и Бил Гейтс, Сам Алтман и Джарон Лание, Ноам Чомски и Ювал Харари.

Темата за изкуствения интелект буквално превзе глобалния дневен ред. Най-накрая си дадохме сметка, че сме се сдобили с ново поколение технологии, които имат силата да променят живота ни. ChatGPT направи така, че новините за машинното самообучение да привлекат погледите.

Когато това се случи, мненията се разпаднаха в крайности. Докато някои са убедени, че вече имаме технология, която да ни замени и пороби, други отвръщат с присмех и скептицизъм. И двете гледни точки ще срещнете често в различни Дигитални истории. Тук те ще се сблъскат челно в опит за среща на аргументите. Едно е сигурно: от този спор зависи наистина много…

1. Роботът вика: дръжте робота

„Нека спрем с развитието на големите езикови модели за 6 месеца, за да има време да въведем регулации!“

Със сигурност сте чули голямата новина от миналата седмица – писмото, в което Илон Мъск, Стив Возняк и още 1100 впечатляващи личности от света на технологиите призоваха да се наложи 6-месечна забрана за разработването на мощни алгоритми. Според инициаторите, преди да продължим със следващите стъпки, е важно да сме готови с етичните рамки, с границите, които да поставим пред този тип технологии.

Че за тези теми трябва да се говори все повече и че регулации за нужни, спор няма, но… не е ли меко казано странно, че именно част от технологичните гении влизат в ролята на лудити и искат просто ей така да спрем една технология? Ами ако през това време останалите държави, които не приемат ограничението, напреднат в този тип разработки? Ами ако отлагането на разработките в сферата на медицината може да струва животи?

Още по-интересно става, ако се заровим в предисторията. Поводът за писмото, разбира се, е шумът, дошъл с прословутата платформа ChatGPT и продължил със следващото поколение на алгоритъма, стоящ зад нея – GPT-4.

Портретите са генерирани от алгоритъма Midjournеy с описанието за реалистична снимка на героите. Тук е Илон Мъск.

Дързост и красота

Компанията OpenAI, разбунила духовете с тези стъпки, е създадена от предприемачи съмишленици, сред които е и самият Мъск. При това поводът е да се противопостави на доминиращия по онова време проект на Google – DeepMind. При създаването един от акцентите, обявени от самия Мъск, беше именно да се разруши монополът в разработките на изкуствен интелект. Създаването на следващите модели да се случва под обществен контрол, с отворен код. По онова време най-богатият човек в човешката история казваше, че единственият шанс на човечеството да оцелее с напредването на ИИ е „технологиите да не бъдат ние, а те“, обществото да има достъп, да контролира разработките и естествено да ги интегрира в ежедневието.

После нещата се промениха дотолкова, че Мъск се оказа от другата страна. Единственото, останало от онова време, е реториката му, според която безконтролното разработване на изкуствения интелект „крие по-големи опасности за човечеството, отколкото ядреното оръжие“.

„Технологичните компании веднага трябва да спрат тренирането на всякакви ИИ системи, които могат да бъдат по-мощни от GPT-4“, се призовава в писмото. „Подобни модели стават все по-способни да се справят от човека с комплексни задачи“. Всичко това създава възможност за разпространението на дезинформация в неподозирани обеми, ще направи ненужни много работни места.

Нещо повече: възможно е създаването на компютърна суперинтелигентност да се превърне в риск за цялото човечество и не бива да бъде „делегирано на не избирани от никого технологични лидери“. Такива разработки следва да се „създават, едва след като сме сигурни, че техният ефект ще бъде позитивен и рисковете са управляваеми“.

Стив Возняк

Стоп машини!

Това обаче възможно ли е? Какво точно ще се промени за 6 месеца? Говори се за обединения от компании, които да разработят протоколи за безопасност… Само че не и как може да се отговори на всички огромни етични въпроси в тази област.

„За съжаление, необходимото ниво на планиране и управление не се осъществява, въпреки че през последните месеци лабораториите за ИИ се впуснаха в неконтролируема надпревара за разработване и внедряване на все по-мощни цифрови умове, които никой: дори техните създатели, не може да разбере, предвиди или надеждно да контролира“, пише още в писмото.

Повече от впечатляващо е, че 1100 големи имена се обединяват в подобен призив. Сред тях са още Емад Мостак, създател на компанията, разработила алгоритъма Stable Diffusion, Еван Шарп – „таткото“ на Pinterest. Все хора, за които можем да си помислим, че имат известен търговски интерес да не позволят доминацията на OpenAI. Много са и безспорните авторитети, като например Йошуа Бенджио, един от пионерите в разработките на ИИ и носител на наградата „Тюринг“. Впечатляващо е присъствието на историка и писател Ювал Ноа Харари.

И така, първата важна гледна точка: създали сме нещо, което има огромни възможности, а все още не го познаваме. Време е да спрем, да въведем регулации и чак после да продължим!

Ювал Ноа Харари

2. Сам воинът

Интересен беше коментарът на друг от пионерите в ИИ света – Андрю Енджи.

„Идеята за 6-месечен мораториум над създаването на ИИ модели, надминаващи GPT-4, е ужасна. Вече се появяват толкова възможни приложения в образованието, здравеопазването, производството на храни…, които ще помогнат на много хора! Подобряването на GPT-4 ще помогне. Нека намерим баланс между голямата стойност, която ни носи ИИ, и реалните рискове“.

„Няма реалистичен начин да се приложи подобен мораториум“, пише още Енджи. „Освен ако правителствата не го направят. Но правителствата да поставят на пауза изгряващи технологии, които те не разбират, е срещу състезателния дух. Би създало ужасен прецедент и отношение към иновациите“.

Признавам, мнението на Енджи ми звучи като нотка здрав разум. „Отговорният ИИ е важен, ИИ наистина крие рискове. Популярният медиен лайтмотив, че ИИ компаниите са изпаднали в амок, прибързано създават и доставят опасен код, не е верен. Огромното мнозинство (за съжаление, не всички) от ИИ екипите приемат отговорния ИИ и безопасността напълно сериозно. Нека инвестираме повече в безопасността, докато развиваме технологията, вместо да задушаваме прогреса!“

Сам Алтман

Сам самичък

Няма как да пропуснем думите и на човека, на когото до голяма степен дължим сегашния бум. Да, Сам Алтман, лидерът на OpenAI, все още не е казал какво мисли конкретно за идеята за мораториум, но възгледите му са достатъчно ясни.

Казва, че това, което го води напред, е идеята за генерален ИИ – алгоритъм, способен да решава всякакъв тип задачи с успеваемост, съпоставима с тази на човека.

„Освен това ме води и целта да стигнем до свят на изобилие“.

Същевременно, казва Сам, следващите стъпки ще доведат до много сериозна промяна в живота на всички ни. „Мисля, че капитализмът е страхотен. Обичам капитализма“, признава мултимилионерът. „Но ако генералният ИИ се появи в пълната си форма, мога да си представя всички начини, по които ще го разбие“.

Сам отвръща така на критиките, че преждевременно е разрешил масовия достъп до технология, която не е проверено безопасна: „Вярвам, че е нужно обществото да усети това, да се бори с него, да види ползите и да разбере недостатъците. Затова мисля, че най-важното, което трябва да направим, е да пуснем тези неща, светът да започне да разбира какво се задава“.

„Трябва ни време, за да разберем какво точно да правим“, казва Сам. „Регулацията е необходима, но ще отнеме време. Макар че инструментите от това поколение не са много опасни, мисля, че не сме далеч от създаването на потенциално страшни ИИ технологии“.

Втората важна гледна точка: Да, опасностите са тук, но те не бива да ни спират, особено когато, в лицето на този тип алгоритми, сме се сдобили с технология, която може да ни е полезна в толкова много области!

3. The Bill, please

От английски ще рече „сметката, моля“. Важно е, безспорно, кой ще плаща сметката от решенията, свързани с технологичното ни бъдеще. Още по-важно е каква ще бъде тя.

Вярвам, че след като сте стигнали дотук, и вие сте убедени, че тези технологии имат огромен потенциал. Ако не вярвате на мен, давам думата на следващия сериозен авторитет в тази област.

Дни преди манифеста на 1100-те Бил Гейтс публикува в личния си блог дълъг и съдържателен текст, в който подробно обяснява защо според него епохата на изкуствения интелект тъкмо е започнала и ще ни доведе толкова революционни промени, колкото ни дадоха интернет или мобилните телефони.

„През живота си съм виждал две демонстрации на технологии, които ми се сториха революционни“, разказва Бил и си спомня за 1980 г., когато се е докоснал до първия модерен компютърен интерфейс, удобен вариант за работа, който направи компютрите достъпни, а доведе след себе си и интернет.

Е, следващото нещо, което му се струва революция, са новините, които дойдоха през последната половин година от OpenAI. Конкретно – възможността да се създаде голям езиков модел, който може да отговаря на въпроси, за които не е предварително трениран. Ето защо именно ChatGPT според Гейтс се превръща в началото на революцията.

Това го вдъхновява да мисли за всичко, които ИИ може да постигне през следващите 10 години. „Той ще промени начина, по който хората работят, учат, пътуват, получават здравни грижи и общуват помежду си. Около него ще се преориентират цели индустрии. Бизнесът ще се отличава по това колко добре го използва“, пише Гейтс.

Бил Гейтс

Gatekeepers

Ще рече „портиер“, но терминът е влязъл в сила и за хората, които трябва по някакъв начин да пазят важно обществено благо. Например медиите, що се отнася до информацията, поне така е било едно време.

Според Бил Гейтс тези технологии могат да помогнат на хората да бъдат значително по-продуктивни и креативни. Нещо повече: те са способни да намалят някои от най-лошите неравенства в света, като например тази на детската смъртност в развиващите се страни. В САЩ най-полезен ще е напредъкът що се отнася до образованието.

Разбира се, винаги когато за елиминирането на неравенството говори човекът, държал десетилетия наред златния медал за най-богат землянин, си струва да имаме едно наум. Особено предвид цялостния му медиен образ от първите години на Microsoft. Тук обаче си личи не просто ентусиазъм, а и опит, и поглед, и познание в технологичния свят.

Гейтс вижда в ИИ единствения ни шанс да се справим с климатичните промени.

Но, разбира се, отчита и обратната страна на медала: „Всяка нова технология, която е толкова разрушителна, непременно кара хората да се притесняват и това със сигурност е в сила за изкуствения интелект. Разбирам защо – повдигат се трудни въпроси относно работните места, правната система, неприкосновеността на личния живот, пристрастията“.

Милиардери от всички страни…

Гейтс се спира на етичните страни, като е убеден, че всички те могат да намерят своето разумно решение с достатъчно целенасочена работа.

„Независимо от всичко, темата за ИИ ще доминира в общественото пространство в обозримо бъдеще“, обобщава Гейтс и предлага три принципа, които си струва да водят разговора.

„Първо, трябва да се опитаме да балансираме страховете относно недостатъците на ИИ – които са разбираеми и валидни – с възможностите му да подобрява живота на хората“.

Вторият принцип е свързан с равната достъпност – благата на ИИ няма как чрез пазарните сили да стигнат до онези, които според милиардера най-много се нуждаят от тях – бедните държави и класи. „Точно както светът се нуждае от най-умните си хора, фокусирани върху най-големите му проблеми, ние ще трябва да съсредоточим най-добрите ИИ технологии в света върху най-големите му проблеми“.

„И накрая, трябва да имаме предвид, че сме само в началото на това, което ИИ може да постигне. Каквито и ограничения да има днес, те ще изчезнат, преди да се усетим“.

Трета важна гледна точка: както и да подходим, не бива да подценяваме важността на това, което се задава. Нито да сме прекалено черногледи!

Ноам Чомски

4. Хладнокръвно

Ако сте вярвали, че Гейтс иска да ни чипира с ваксини, правете си сметка какво се задава тук…

Ентусиазмът ви дойде в повече? Е, ето малко мрънкане по темата, отново от заобикалящия ни отвсякъде Мъск. „Спомням си ранните срещи с Гейтс“, написа той в Twitter. „Неговото разбиране за ИИ беше ограничено. Все още е.“ Както добре знаем, според него има само един човек на тази планета, който знае и разбира всичко…

Ето още малко, за баланс. Ян Лекун също е сред пионерите в света на ИИ, носител на наградата „Тюринг“, той е и начело на този тип разработки в компанията майка на Facebook. Според него ChatGPT „не е нищо революционно“, „няма нищо иновативно“ и „не може да бъде наистина креативен“. „Не само Google и Meta, още половин дузина стартъпи имат много подобни технологии. Не искам да кажа, че не е нещо сложно, но, да кажем, че зад него няма някаква отделна тайна.“

Е, да, нищо особено не е станало, някакво чатче.. Сигурно затова шефът му Марк Зукърбърг изведнъж обяви, че ИИ разработките стават основен приоритет и на Meta.

Нека продължим абстрактните и доста ентусиазирани, особено като за милиардер, разсъждения на Бил Гейтс с малко конкретика. Впечатляващи са оценките от излязъл неотдавна доклад на Goldman Sachs.

В свое проучване глобалната банка обяви, че в резултат от напредъка на големите езикови модели до 300 млн. души могат да загубят работата си! Ако този тип технологии продължат да се развиват според очакванията, това ще създаде огромни промени в пазара на труда. Цели 2/3 от работните позиции в САЩ могат да бъдат автоматизирани с помощта на ИИ, като в половината от тях човекът може да бъде заместен напълно.

Разбира се, от доклада става ясно, че пълното заместване на човека ще се случи по-бавно и далеч не е сигурно. Докато това, че подобни системи ще автоматизират много голяма част от работата, изглежда безспорно, при това в близка перспектива.

От друга страна, това не бива да ни плаши и заради погледа към миналото. 60% от работната сила днес е на позиции, които не са съществували през 1940 г.

Четвъртата гледна точка? Тепърва ще осъзнаваме какво точно сме постигнали и какво сме на път за постигнем. Време е за сблъсък на крайни мнения. Но и за големи възможности!

5. Сърце на сърцата

Там, където свършва комерсиалното, започва човешкото. За финал, както е типично по български, оставям малко здравословно черногледство. При това от безспорни авторитети в своите области.

Психологът Герд Гигеренцер, дългогодишен директор на института за човешко развитие „Макс Планк“, казва: „Трябва да имаме едно наум, че можем да се озовем в ситуация, в която технологичните компании продават алгоритми под формата на черни кутии, които определят важни аспекти от живота ни“.

„Дълбоките невронни мрежа имат много, много слоеве, но те все още са изчислителни машини. Те могат да рисуват, могат да конструират текст. Но, разберете, не го правят в смисъла, в който това важи за хората“, допълва психологът.

То се надява обществата „да осъзнаят, че не е добра идея да дават данните си и отговорността за собствените си решения на технологични компании, които ги използват, за да правят пари. Това не може да бъде нашето бъдеще!“.

Жак Атали

Щрауси както винаги…

Какво обаче е най-вероятно да се случи по всички тези теми? Впечатли ме в тази посока толкова човешки логичната гледна точка на икономиста Жак Атали, който разказва за впечатленията си от срещата с алгоритмите, това, което би трябвало да направим и това, което, няма да посмеем.

„Всички опасности, които се обсъждат са реални. И са много по-неизбежни, отколкото си мислим. Няма начин да ги избегнем или да ги пренебрегнем“, пише Атали. „Не бива само да се възхищаваме на невинните игри, които тези програми сега ни позволяват, нито на огромните средства, които те ще ни предоставят, за да отразяваме по-добре, да създаваме, да напредваме и да очароваме“.

Атали е твърдо убеден, че възможно най-бързо трябва да бъде въведена истинска глобална харта, която да признае надеждите, които тези изкуствени интелекти възлагат на нас, но да им забрани да вредят на своите човешки автори. В това могат да ни помогнат и напътствията оставени още през 1942 г. от Айзък Азимов.

„Естествено, ние няма да го направим. Точно както не сме го направили ефективно за данъците, ядрените оръжия или генното инженерство. Освен ако най-накрая не признаем, както за този въпрос, така и за много други, спешната нужда от планетарна правова държава“.

На върха на езика

На Ноам Чомски винаги може да се разчита за крайно мнение. Е, ето го. Според него сме много далеч от истински проблеми в тази област.

„Макар че ChatGPT е приветстван като първия проблясъци на хоризонта на генерален изкуствения интелект, ние изобщо не сме близо до това ниво. Този ​​ден може да дойде, но зората му все още не е изгряла, обратно на това, което можете да прочетете в хиперболичните заглавия“, размишлява лингвистът.

„Колкото и полезни да са тези програми в някои тесни области, няма начин машинното обучение такова, каквото е днес, да се конкурира с човешкия ум“, допълва Чомски. „Защото, за разлика от човешкия ум, ChatGPT и подобните му са просто тромава статистическа машина за съпоставяне на шаблони, поглъщаща стотици терабайти данни, опитваща се да екстраполира най-вероятния отговор. От другата страна човешкият ум е изненадващо ефективна, дори елегантна система, която работи с малки количества информация. Той не се стреми да извежда груби корелации между единици данни, а се опитва да търси обяснения“.

Джарон Лание

Лудите, те да са живи

„Опасността не е, че ИИ ще ни унищожи. Проблемът е, че ще ни побърка“, казва един забележителен образ. Джарон Лание е едновременно пионер в света на виртуалната реалност и един от най-големите критици на това, в което са се превърнали технологиите днес.

„Способен ли е ИИ наистина да ни надхитри и да превземе света? В този въпрос няма няма смисъл, това е набор от термини, които за мен са измислица. Те идват от научнофантастични филми като „Матрицата“ или „Терминатор“, продължава Лание. Според него в този тип технологии изобщо не е редно да използваме думата „интелект“ и да разсъждаваме дали може да се конкурираме с него.

„Идеята за надминаване на човешките способности е глупава. Та тя е направена именно благодарение на човешките способности“, казва Лание. Според него е еднакво глупаво да се сравняваме с такъв тип технологии или с автомобил. „Това е все едно да кажеш, че колата може да се движи по-бързо от един атлет. Разбира се, че може и въпреки това не казваме, че тя е станала по-добра от нас.“

„От моята гледна точка опасностите днес не идват от някаква нова извънземна същност, която ще говори чрез нашата технология, ще ни превземе и унищожи. За мен опасността е в това да използваме нашата технология, за да станем взаимно неразбираеми. Да полудеем, да стигнем до позиция, в която не можем да общуваме, в която забравяме собствените си инстинкти за оцеляване. Е, тогава ще умрем от лудост“, завършва Лание.

Петата гледна точка: далеч сме от нещо, което имаме изобщо основанието да наричаме „изкуствен интелект“, време е де са е успокоим, да преосмислим понятията и целите си.

Миражите са близо, пътят е далек

И така, близо ли сме до генералния изкуствен интелект? Настина ли са толкова големи пробивите в областта напоследък?

Надявам се, че вече сте намерили сред всичките възможните отговори, събрани тук, този, който е най-близък и до вас. Но, най-важното според мен би било, ако сте започнали да си задавате и вие въпросите, именно такава е целта на сайта, който сте отворили. Едва тогава могат да започнат да идват и отговорите…